采用迁移学习进行物体识别
山东理工大学 数学院 周世祥 shixiangbupt@qq.com
- 什么是迁移学习
站在巨人的肩上，“举一反三”，“触类旁通”，学会了C语言，也很快就学会了matlab，异曲同工。
把一个领域的知识，迁移到另一个领域，基于共享参数的迁移学习，以经典的卷积网络为基础，通过修改一个已经训练好的深度卷积网络的最后几层连接层，再使用对特定问题而建立的小数据集进行训练，以使其适用于一个新问题。
案例：对AlexNet网络进行改进，并用样本数据进行训练，实现对输入图像的识别。
%% 程序说明
% 实例
% 功能：基于共享参数的迁移学习的原理，对AlexNet进行改进，并用样本数据进行训练，实现对输入图像的识别
第二天再试试
% 作者：zhaoxch_mail@sina.com
% 时间：2020年3月1日
% 版本：DLTEX4-V1
% 注：本程序主要是用于说明基于迁移学习的原理，如何将已训练好的经典网络进行改进并进行训练，请重点关注步骤3、步骤4。
%% 步骤1：加载图像数据，并将其划分为训练集和验证集
% 加载图像数据
unzip('MerchData.zip');
imds = imageDatastore('MerchData', ...
'IncludeSubfolders',true, ...
'LabelSource','foldernames');
% 划分验证集和训练集
[imdsTrain,imdsValidation] = splitEachLabel(imds,0.7,'randomized');
% 随机显示训练集中的部分图像
numTrainImages = numel(imdsTrain.Labels);
idx = randperm(numTrainImages,16);
figure
for i = 1:16
subplot(4,4,i)
I = readimage(imdsTrain,idx(i));
imshow(I)
end
%% 步骤2：加载预训练好的网络
% 加载alexnet网络（注：该网络需要提前下载，当输入下面命令时按要求下载即可）
net = alexnet;
%% 步骤3：对网络结构进行改进
% 保留AlexNet倒数第三层之前的网络
layersTransfer = net.Layers(1:end-3);
% 确定训练数据中需要分类的种类
numClasses = numel(categories(imdsTrain.Labels));
% 构建新的网络，保留AlexNet倒数第三层之前的网络，在此之后重新添加了全连接
layers = [
layersTransfer % 保留AlexNet倒数第三层之前的网络
fullyConnectedLayer(numClasses) % 将新的全连接层的输出设置为训练数据中的种类
softmaxLayer % 添加新的Softmax层
classificationLayer ]; % 添加新的分类层
%% 步骤4：调整数据集
% 查看网络输入层的大小和通道数
inputSize = net.Layers(1).InputSize;
% 将训练图像的大小调整为与输入层的大小相同
augimdsTrain = augmentedImageDatastore(inputSize(1:2),imdsTrain);
% 将验证图像的大小调整为与输入层的大小相同
augimdsValidation = augmentedImageDatastore(inputSize(1:2),imdsValidation);
%% 对网络进行训练
% 对训练参数进行设置
options = trainingOptions('sgdm', ...
'MiniBatchSize',15, ...
'MaxEpochs',10, ...
'InitialLearnRate',0.00005, ...
'Shuffle','every-epoch', ...
'ValidationData',augimdsValidation, ...
'ValidationFrequency',3, ...
'Verbose',true, ...
'Plots','training-progress');
% 用训练图像对网络进行训练
netTransfer = trainNetwork(augimdsTrain,layers,options);
%% 分类验证图像并并随机显示分类结果
% 对训练好的网络采用验证数据集进行验证
[YPred,scores] = classify(netTransfer,augimdsValidation);
% 随机显示验证效果
idx = randperm(numel(imdsValidation.Files),4);
figure
for i = 1:4
subplot(2,2,i)
I = readimage(imdsValidation,idx(i));
imshow(I)
label = YPred(idx(i));
title(string(label));
end
%% 计算分类准确率
YValidation = imdsValidation.Labels;
accuracy = mean(YPred == YValidation)
%% 创建并显示混淆矩阵
figure
confusionchart(YValidation,YPred)
预训练好的Alex net网络的最后3层原本为用对1000个类别的物体进行识别，新的分类问题必须调整这3层。
先从预训练网络中取出除最后这三层外的所有层，然后用一个全连接层，一个softmax层和一个分类层替换最后3层。
由于AlexNet需要输入图像大小为227*227*3像素，因此还需要对训练图像的大小及验证数据的图像大小不同用函数augmentedImageDatastore()进行批量调整。
创建混淆矩阵：confusionchart()
矩阵行对应真实类，列对应预测类，对角线对应正确分类的个数，非对角线对应错误分类的个数。
心理学上，对某一项技能的学习能对其他技能产生积极的影响，迁移学习效应，人工智能研究领域之一。
卷积神经网络在进行物体识别过程中，可以自动提取特征并根据特征进行分类。
仿生学上，模仿大脑皮层工作原理的深度神经网络，卷积神经网络提取的特征是一层层抽象的，越是底层的特征越基本，底层的卷积层学习到角点，边缘，颜色，纹理等共性特征，越是高层越抽象越复杂，到了顶层附近学习到了特征可以大概描述一个物体了，这样的抽象特征又称语义特征。
在一些任务中，可用于训练的数据样本很少，如果从头训练一个卷积神经网络模型，效果不是很好，此时，可利用别人已经训练好的卷积神经网络模型，然后尝试改变该模型语义层的参数即可。
前面是共性，后面是个性，从统计意义上讲。
采用Deep Network Designer实现卷积网络设计
matlab中提供了一个便于设计，查看，检验深度网络的工具Deep network designer.
有两种打开方式，在命令窗口中，输入代码：
deepNetworkDesigner
第二种方式：
用菜单方式，从APP中打开
下面的案例，构建一个卷积网络，实现对输入的含有数字0~9的二值图像28*28进行分类，并计算分类的准确率。
网络架构
输入：28*28像素，1个通道
卷积1：卷积核大小3*3，个数为32个，0填充方式(same)
批量归一化层1：加快训练时网络收敛速度；
非线性激励函数1：用ReLU 函数
池化层1：最大池化，2*2，步长1
卷积2：3*3，个数为32个，0填充方式(same)
批量归一化层2：
非线性激励函数2：用ReLU 函数
池化层1：最大池化，2*2，步长2
全连接层2：输出为10个
softmax层：得出全连接层每一个输出的概率
分类层：根据概率判断类别
步骤
步骤1：从模块库中将Image input layer模块拖到操作区中，单击该模块，在右侧属性显示区中进行参数设置，将其设置为输入图像大小28*28，1个通道。
步骤2：从模块库中将Convolution2DLayer模块拖到操作区中，单击该模块，在右侧属性显示区中对其进行参数设置，将其设置为：卷积核大小为3*3，卷积核的个数为32(每个卷积核1个通道)，卷积的方式采用零填充方式，即same方式，其他采用默认设置。
步骤3：从模块库中将BatchNormalizationLayer拖到操作区中，单击该模块，在右侧属性显示区中对其进行参数设置，一般采用默认。
